【图一乐】本地部署deepseek

【图一乐】本地部署deepseek
清欲提醒:本地部署仅图一乐 模型参数量和速度远不如官方在线版 仅供离线环境、保密环境、图一乐使用 建议使用 NVIDIA 卡
用到的工具:
硬件要求
以上数据来自deepseek
如何查看自己的显存?
在Windows 10/11中,按Ctrl+Shift+Esc打开任务管理器,切换到“性能”选项卡,查看“GPU”处
常见N卡:
1.安装lm studio
软件支持win、mac、linux,进入LM Studio官网 选择合适的版本下载安装即可
这里以win11为例:
上面这个页面点击右上角跳过
根据上图步骤切换中文
2.设置模型目录
根据上图步骤 选择你的磁盘,这里推荐使用固态硬盘,速度会比较快
存放模型的文件夹最好是全英文
3.存放模型文件
lm stuidio里可以直接搜索下载 这里推荐在这里选择合适的deepseek模型来下载 速度会快一些
至于原因?dddd
请将下载的模型文件存放到上一步设置的模型目录下的嵌套文件夹中。例如,若模型目录为E:\aimodel,则需在该目录下创建一个文件夹,再在该文件夹内创建一个子文件夹,最后将模型文件存入此子文件夹。
做完以上步骤之后 重新启动LM studio 模型即可被正确识别
在这里选择你的模型然后根据自己的喜好微调参数就可以愉快的和ai玩耍了